Zakaria telah menghembuskan nafasnya yang terakhir pada 8 Disember 2004 di rumahnya di Kampung Alor Lintang, Besut, Terengganu pada jam 3.15 pagi. Jenazah beliau telah disemadikan di kampungnya di Kampung Nyiur Tujuh, Besut, Terengganu menurut anaknya, Siti Nurbaya.

Beliau meninggalkan lima orang anak lelaki, dua orang anak perempuan dan orang cucu. Isteri beliau telah kembali ke Rahmatullah pada awal 1990-an.[2]